Vào những năm cuối thời gian trị vì của mình, Vasili III muốn "nạp phi" để có con nối dõi. Năm 1526, ông cưới người vợ đầu tiên là Nữ Đại vương công Solomonia Saburova của Suzdal, nhưng họ không có con. Nhận thức về sự thất vọng của chồng mình, Solomonia đã cố gắng khắc phục điều này bằng cách nhờ các thầy phù thủy và hành hương để mong có con, nhưng vô vọng. Đại công Moskwa đã hỏi ý kiến các boyar và tuyên bố ly hôn vợ cũ để cưới Elena Glinskaya, cháu gái của quý tộc Mikhail Glinski thuộc dòng Litva (người giúp ông đánh chiếm Smolensk năm 1514) bất chấp sự phản đối của các lãnh chúa dòng dõi Moskwa và các giáo sĩ. Vasili đã phải lòng người vợ thứ xinh đẹp này cho đến trước đám cưới. Khí đám cưới diễn ra, ông bất chấp mọi quy tắc truyền thống của Moskwa cổ để cạo râu cho đẹp hơn. Sau cuộc hôn nhân thứ hai này được ba tháng, Elena Glinskaya không có dấu hiệu động thai. Dân chúng Moskwa bắt đầu nghi ngờ về cuộc hôn nhân của Đại công và họ cho rằng, đây là một dấu hiệu cho thấy Chúa không chấp nhận hôn nhân. Tuy nhiên, với niềm vui lớn của Vasili và dân chúng là hoàng hậu Elena Glinskaya vừa sinh hạ được hai hoàng nam là Ivan (sinh năm 1530) và Yuri (sinh năm 1532)[8].

Năm 1533, trọng khi đang đi săn bắn ở gần Volokolamsk, Vasili cảm thấy đau đớn ở hông phải, kết quả của chứng bệnh áp xe. Ông được đưa đến làng Kolp, nơi ông được hai bác sĩ người Đức đến thăm, nhưng họ không thể ngăn chặn sự lây nhiễm của chứng bệnh này bằng các biện pháp chữa bệnh thông thường. Tin rằng cuộc đời mình sắp hết, Vasili yêu cầu được trở về Moskwa. Vào ngày 25 tháng 11 năm 1533, Vasili được đưa đến Moskwa và được đưa tới giường bệnh. Trong lúc lâm chung, Vasili đã kịp di chúc về người kế vị: Elena sẽ cai trị cùng với hội đồng nhiếp chính gồm những người thân tín nhất trong khi hoàng thái tử Ivan còn nhỏ. Trước lúc từ trần, Vasili kịp lấy tên thánh Varlaam và xin làm tu sĩ sau khi qua đời. Vasili III qua đời vào lúc nửa đêm, 4 tháng 12 năm 1533[9], lúc 54 tuổi. Sau khi ông chết, con trai trưởng còn nhỏ là Ivan IV kế vị